Would You Walk to the Car Wash? Revealing the Salience Bias of Large Language Models in Commonsense Reasoning
揭示大语言模型常识推理中的显著偏差：知识抑制而非缺失
🧭 LLM常识推理中的显著偏差与知识抑制
Shanghai Jiao Tong University · ByteDance Inc
LLM在常识推理中易被无关显式干扰项劫持，实为知识被抑制而非缺失，轻量提示即可大幅恢复。
📌 工作参考价值（4 点）
- 推理时加入忽略干扰指令：在推荐Agent或搜索任务的prompt中显式加入“忽略无关数字/显式条件，基于常识前提推理”的指引，能低成本缓解类似偏差。
- 两步式推理设计：先让模型剥离任务框架单独激活领域常识（知识探测），再结合具体条件进行决策，可避免关键知识被干扰项抑制，适用于商品适用性判断、场景化推荐等需常识推理的场景。
- 干扰项隔离与测试：在构建面向Agent的评估集时，引入无关高显著度特征（如随机用户ID、冗余时间戳），检验模型是否会错误依赖这些特征，借鉴SaliTrap的陷阱构造方式提前暴露系统脆弱性。
- 提示工程优先于微调：该工作表明常识推理瓶颈主要在于知识引出而非模型能力，因此优先优化提示策略（如加入“先思考隐含前提”的思维链）的ROI远高于重训模型。